一种基于Transformer和卷积注意力机制的CT图像分割方法

您所在的位置:网站首页 cnn 图像分割 一种基于Transformer和卷积注意力机制的CT图像分割方法

一种基于Transformer和卷积注意力机制的CT图像分割方法

2023-04-07 12:29| 来源: 网络整理| 查看: 265

技术特征:1.一种基于transformer和卷积注意力机制的ct图像分割方法,其特征在于,所述方法包括以下步骤:s1,数据预处理模块:获取ct图像数据,按照体素值截断的方法过滤不相关区域,对过滤后的ct图像数据进行标准化处理,然后划分训练集、验证集和测试集;s2,cnn编码器模块:利用多层卷积操作,对ct图像进行初步编码,使用卷积注意力模块来实现注意力机制,对语义分割主要区域加入关注,获取ct图像的局部特征信息;s3,transformer编码器模块:连接cnn编码器的后两层特征信息,传入到transformer编码器进行处理,获取ct图像的全局特征信息,ct图像全局特征信息结果与从cnn编码器传入的后两层特征信息残差相加,增强cnn编码器后两层特征信息传递操作过程中损失的信息;s4,解码器模块:将transformer编码器的输出信息还原至cnn编码器最后两层特征图大小,最后一层特征图经反卷积操作后与上一层输出的还原结果相加,再使用反卷积操作将相加结果还原到cnn编码器前两层特征图大小,并对应作跳跃连接,最后还原出带标签的ct图像。2.根据权利要求1所述的ct图像分割方法,其特征在于,步骤s2所述的cnn编码器模块还包括:s21,使用一个conv_in_relu块对ct图像进行初步处理,包括一个7×7卷积核的卷积层、归一化层和激活层,得到包含丰富局部信息的中间特征图;s22,使用卷积注意力模块,沿着通道和空间两个维度推断注意力映射,强调重要的特征,减小不必要特征的影响,从而关注任务所要分割的关键部位,增强cnn编码器的性能;s23,将融合了卷积注意力的中间特征图传入到resconvblock中,经过多个残差卷积块的处理,获得分辨率更低的特征图;s24,按照s22和s23的方法,在经过两次的卷积注意力模块和resconvblock处理,得到分辨率更低的高层次特征图,所述高层次特征图包含了ct图像的全局信息。3.根据权利要求2所述的ct图像分割方法,其特征在于,在s22步骤中,卷积注意力模块将注意力的注入分为两个过程,沿着空间轴的通道注意力模块和沿着通道轴的空间注意力模块,卷积注意力模块输入的中间特征图f∈rc*h*w,卷积注意力模块推导出1维的通道注意力映射mc∈rc*1*1和2维空间注意力映射ms∈r1*h*w,具体过程如下:s221,空间轴的通道注意力模块通过平均池化和最大池化操作沿着空间轴聚合中间特征图的信息,生成两个不同的通道特征信息和分别表示跨空间的平均池化特征和最大池化特征;然后这两个通道特征信息分别转发到一个共享前向网络;最后将共享前向网络应用于每个池化特征后的结果,使用逐元素求和操作并输出特征向量,计算方式为:s222,将步骤s221中所求得的通道注意力映射与输入数据逐元素相乘,通过步骤s221,通道注意力得到向下传播,其过程概括为:s223,通道轴的空间注意力模块首先通过平均池化和最大池化操作沿着通道轴聚合包含了通道注意力中间特征图的信息,生成两个2维映射:和分别表示跨通道的平均池化特征和最大池化特征;然后将这些信息连接起来并通过一个标准7×7卷积核的卷积层进行卷积操作,产生2维空间注意力特征图;最后通过sigmoid函数进行标准化得到最终注意力映射,计算方式为:s224,将步骤s223得到的注意力映射,与步骤s222中求得的f'进行逐元素相乘,通过此操作来添加空间注意力,此步骤所得结果包含了通道注意力和空间注意力,对输入中间特征图的重要特征达到了强调的目的,且减小了不必要特征的影响,整个过程可以概括为:4.根据权利要求3所述的ct图像分割方法,其特征在于,步骤s3所述的transformer编码器模块还包括:s31,将cnn编码器的最后两层特征信息展开后进行拼接,并加入位置编码,作为transformer的输入;s32,将输入信息传递到可变形注意力transformer层中对全局信息进行建模,transformer编码器中包含了6层可变形注意力transformer层;s33,经过6层可变形注意力transformer层后的结果,与transformer编码器的传入信息残差相加,增强在可变形注意力transformer层中处理和传递过程中损失或丢失的局部特征信息,得到与输入同样维度的结果,此结果包含了输入图像的局部特征信息和全局特征信息。

技术总结本发明公开了基于Transformer和卷积注意力机制的CT图像分割方法,包括以下步骤:S1,数据预处理模块:获取CT图像数据,按照体素值截断的方法过滤不相关区域,对过滤后的CT图像数据进行标准化处理,然后划分训练集、验证集和测试集;S2,CNN编码器模块:利用多层卷积操作,对CT图像进行初步编码,使用卷积注意力模块来实现注意力机制,对语义分割主要区域加入关注,获取CT图像的局部特征信息;S3,Transformer编码器模块:连接CNN编码器的后两层特征信息,传入到Transformer编码器进行处理,获取CT图像的全局特征信息,CT图像全局特征信息结果与从CNN编码器传入的后两层特征信息残差相加,增强CNN编码器后两层特征信息传递操作过程中损失的信息;S4,解码器模块:将Transformer编码器的输出信息还原至CNN编码器最后两层特征图大小,最后一层特征图经反卷积操作后与上一层输出的还原结果相加,再使用反卷积操作将相加结果还原到CNN编码器前两层特征图大小,并对应作跳跃连接,最后还原出带标签的CT图像。标签的CT图像。标签的CT图像。

技术研发人员:丁长松 许志祥 黄辛迪 彭荧荧 李力松受保护的技术使用者:湖南中医药大学技术研发日:2022.12.01技术公布日:2023/4/5



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3